昨天,我們已建立完隨機森林回歸分類方法,那今天,我打算來介紹下支持向量機(Support Vector Machines),首先先來圖稍微說明下:
EX: 狗:藍點;貓:紅點;(p.s.不一定是圖片,有可能是貓和狗的資料EX:體重…)當今天資料進來,如果想分辨是貓還是狗,就可以使用支持向量機
藉由不斷修正,來達到最佳分割線
但有時候會出現無法用線性切割的狀況
這時候就要拓展維度,像這樣
而這個是使用到kernel函數,去進行維度擴展,像是
(把x,y帶入就會產生z,這樣資料就會有x,y,z就可以找到分割平面)
而所以kernel函數(核函數),實際其實就是一個帶入x,y的函數f(x,y)
其中最常用的就是第三個內核RBF因為他在拓展到高維度會比較易於計算(因為使用泰勒展開式)
所以支持向量機其實也是一個分類方法而常用於支持向量機算法的演算法:SMO
SMO算法的目標是求出一系列系數,一旦求出了這些系數,就很容易依照系數來計算出權重向量w並得到分隔超平面。
(來源:維基百科和https://blog.csdn.net/tiankong_/article/details/80952154
之後演算法也會參考這兩篇)
好,今天支持向量機概念算是完成了,明天就開始研究支持向量機演算法,主要會以寫出SMO算法為主,並利用二維作為舉例
男孩胸口發出的歌聲,傳到了森林外的小屋,此時男人用紅色的雙手托著下巴,彷彿在打量甚麼,只見他深吸了一口氣,並朝著森林方向大叫了一聲,而遠處的男孩正煩惱著胸口的歌聲該怎麼停下來,突然男孩聽到了男人傳來的大叫聲,而男孩胸口的歌聲,慢慢變小,最後歌聲消失了,當歌聲停下來後,男人露出了一抹微笑,並朝著森林走去
--|不管你在哪,我會找到你,遊戲開始了|-- CS.MM